AI Papers Daily

#compositional generalization

4 篇

DecompRL: Solving Harder Problems by Learning Modular Code Generation

DecompRL：通过模块化代码生成解决更难问题

🧭 分解式问题求解 · 模块化代码生成

FAIR at Meta · Inria · École Normale Supérieure · CERMICS · École des Ponts ParisTech

将难题分解为独立子函数，训出可组合的模块化代码，用 CPU 组合爆炸替代 GPU 重采样

📌 工作参考价值（4 点）

• 复杂推荐 / Agent 任务可借鉴“分解—独立实现—组合”范式：将长流程或组合动作拆成原子模块，分别用 LLM 生成候选实现，再通过组合搜索提高成功率，同时减少高成本 LLM 调用。
• 生成式推荐中，将完整的 item semantic ID 或推荐文案拆成多个独立子部分生成，再灵活组合，可获得指数级候选多样性，且大部分组合验证可在 CPU 上完成。
• 训练 Agent 规划能力时，用 DecompRL 类似的 RL 目标鼓励模型自动学习“何时以及如何分解子目标”，可提升长远任务成功率。
• 线上重采样（pass@k）成本高昂时，可将一次性生成转换为“少量模块候选 + CPU 组合评估”模式，显著压缩 GPU token 消耗（论文中 ~50×），适合高流量推荐系统降本。

LLM | 2026-07-02 | cs.LG | score 7/10

modular generationhierarchical RLtest-time scalingcode generationdecompositioncompositional generalization

From Reasoning Traces to Reusable Modules: Understanding Compositional Generalization in Language Model Reasoning

从推理轨迹到可复用模块：理解语言模型推理中的组合泛化

🧭 训练与推理中的模块化组合泛化

Carnegie Mellon University · Mohamed bin Zayed University of Artificial Intelligence · Institute of Foundation Models · University of Michigan

揭示SFT与RL在LLM推理中非对称互补：SFT提供模块原料，RL分解轨迹提取原子模块实现组合泛化

📌 工作参考价值（4 点）

• 训练范式迁移：在构建推荐/搜索Agent时，可先通过SFT用组合轨迹（如查询改写→检索→排序的完整链）覆盖所有原子技能，保证基础能力；再用RL重点训练SFT未见过的技能组合，提升泛化性。
• 数据构建策略：训练数据应避免只给孤立原子操作（如单独改写或单独排序），而应提供复合任务示例，实验证明复合训练比分离训练带来更强的组合泛化。
• RL Fine-tuning 设计：RL阶段将奖励信号聚焦于新颖组合，鼓励模型探索原子模块的不同路由方式，可有效提升在未见过的搜索场景或用户意图下的表现。
• 模块化推理架构：在Agent工作流中可显式抽象出“技能（局部操作）”和“路由（信息选择与组合）”两级原子模块，便于模型复用和重组，降低新任务开发成本。

Reasoning | 2026-06-16 | cs.LG | score 7/10

compositional generalizationSFTRLlatent modulesreasoningtraining strategy

Fix the Mind, Not the Move: Interpretable AI Assistance via Knowledge-Gap Localization

修正思维而非动作：通过定位知识鸿沟实现可解释的AI辅助

🧭 可解释AI辅助 · 知识误解诊断

University of Southern California

从行为反推认知误解，以最小干预修正内在知识缺陷，而非纠正单个错误动作

📌 工作参考价值（4 点）

• 可借鉴其“从行为序列反推认知偏差”的思路，在推荐系统中针对用户频繁点击低质内容的行为，诊断其对商品关键属性的误解，并生成解释性提示（如“您可能忽略了XX参数”）。
• 结构化知识表示（如属性-关系图）与组合泛化能力，可启发构建模块化的用户兴趣模型，即使只见过单一偏好偏差，也能在推理时解耦并处理用户多因素混合的误解。
• 在智能客服或对话Agent中，可模仿SENSEI框架，通过用户提问序列定位其知识鸿沟，提供最少量但关键的信息纠正，提升问题解决效率。
• 多智体协作场景中，可将该框架用于Agent间信念对齐：当检测到其他Agent执行了次优动作时，主动推断其策略中的误解，并定向沟通修正，替代简单的动作级干预。

Other | 2026-06-04 | cs.HC | score 7/10

misconception diagnosisknowledge-gap localizationhuman-AI collaborationinterpretable AIcompositional generalization

Assign and Add: A Mechanistic Study of Compositional Arithmetic

分配与相加：组合算术的机制研究

🧭 Transformer组合泛化机制与训练动态

Yale University · Flatiron Institute

通过变量分配与模加任务，揭示Transformer组合泛化的内部机制、训练动态和模块复用方式

📌 工作参考价值（4 点）

• 多技能Agent的训练策略：论文发现模型分三阶段学习（先原子技能模加、再组合结构、最后泛化到难样本），在训练电商Agent或多技能推荐系统时，可采用类似课程学习，先确保单一能力收敛再混合任务，避免联合训练导致的负迁移。
• 模块复用的架构启发：同一MLP模块在直接和间接输入下均实现模加，表明模型自发形成可复用电路。设计生成式推荐或Query改写模型时，可刻意为共享子任务预留模块化组件（如专用LoRA分支），提升参数效率和组合泛化。
• 组合泛化的验证方法：通过划分不相交训练集测试未见过组合的泛化能力，可作为评估推荐模型对新用户-新商品交互、新搜索词组合鲁棒性的内部基准，提前发现模型是否真正理解底层规则而非记忆。
• 注意训练后期的“精调”阶段：本文观察到最终阶段模型学会处理训练中未见的困难序列，暗示适当延长训练或加入类似难例挖掘的机制可能对复杂推理任务有益，对需要处理长尾查询或冷启动场景的电商Agent有参考意义。

Reasoning | 2026-05-29 | cs.LG | score 7/10

compositional generalizationmechanistic interpretabilitymodular additiontraining dynamicstransformers